Shohei Baba sinh ngày 23 tháng 1 năm 1938 tại Sanjo, Niigata là con trai thứ hai của Kazuo Baba và Mitsu Baba. Trong phần lớn thời thơ ấu, Baba là một đứa trẻ nhỏ nhất trong lớp. Nhưng từ năm lớp 5, ông bắt đầu phát triển chiều cao với tốc độ đáng kinh ngạc, và lúc chín tuổi, ông đã cao 175 cm. Điều này nhanh chóng trở nên rõ ràng rằng ông bị chứng Gigantism. Tuy vậy, Baba rất xuất sắc khi chơi bóng chày, trở thành cầu thủ hàng đầu tại câu lạc bộ địa phương mình. Sau khi tốt nghiệp tiểu học, Baba học khoa kỹ thuật cơ khí tại trường trung học kinh doanh Sanjo. Baba buộc phải từ bỏ bóng chày khi anh học trung học khi ông tiếp tục phát triển chiều cao (190 cm ở tuổi 16). Thay vào đó, ông gia nhập câu lạc bộ nghệ thuật, nhưng không kéo dài lâu khi trường ra lệnh cho các nhóm tùy chỉnh và Baba được mời tham gia đội bóng chày. Baba tiếp tục gây ấn tượng, ghi được 18 bàn trong một trận đấu, dẫn đến báo lá cải đưa tin "người ném bóng khổng lồ của trường trung học Sanjo". Năm 1954, Baba gặp Hidetoshi Genkawa của Yomiuri Giant, người đã khuyên Baba bỏ học cấp ba và tham gia nhóm toàn thời gian. Baba chấp nhận và bắt đầu chơi cho Yomiuri Giant vào tháng 1 năm 1955.